#activación anómala

Capa Dominante ZO: Una sola capa domina el ajuste fino de orden cero de LLMs

Descubre cómo una sola capa domina el ajuste fino ZO en LLMs, mejorando rendimiento y acelerando hasta 4.5x. Identifícala antes de entrenar.